Câu lạc bộ được thành lập tại quán cà phê Criterion của thành phố Norwich vào ngày 17 tháng 6 năm 1902. Sau đó, đội mở một cuộc họp phụ vào ngày 2 tháng 7 năm 1902 bởi ba cựu cầu thủ Norwich CEYMS, Robert Webster, Joseph Cowper và Brad Skelly[1][4] và chơi trận đấu chính thức đầu tiên của mình với Harwich & Parkeston, tại sân Newmarket Road vào ngày 6 tháng 9 năm 1902.[5] Câu lạc bộ chuyển sang thi đấu chuyên nghiệp vào năm 1905. Cuối năm 1905 đội tham gia chơi ở giải địa phương và vì số cổ động viên ngày càng tăng, câu lạc bộ đã phải rời khỏi sân Newmarket Road vào năm 1908, chuyển đến sân The Nest, một sân bị bỏ hoang. Biệt danh ban đầu của câu lạc bộ là Citizens, sau đến năm 1907 thì được đổi biệt danh thành Canaries bởi chủ tịch của câu lạc bộ (vốn là một người yêu thích chim hoàng yến) gọi con trai của mình là "The Canaries" và thay đổi áo đấu của đội bóng sang màu vàng và màu xanh lá cây. Trong cuộc chiến tranh thế giới thứ nhất, bóng đá bị đình chỉ tại thành phố và vì thành phố phải đối mặt với khoản nợ leo thang, câu lạc bộ đã tạm thời thanh lý vào ngày 10 tháng 12 năm 1917[4].

Sau chiến tranh thế giới thứ nhất, câu lạc bộ hoạt động trở lại vào ngày 15 tháng 2 năm 1919 bởi ông Watling, cha của chủ tịch câu lạc bộ sau đó, Geoffrey Watling[6] và đến tháng 5 năm 1920, giải đấu chính thức đưa vào hệ thống giải hạng ba, và Norwich là một trong những đội bóng tham dự mùa đầu tiên của giải hạng ba[7] Trận đấu đầu tiên của đội bóng là cuộc so tài với đội Plymouth Argyle, vào ngày 28 tháng 8 năm 1920, đã kết thúc với tỷ số hòa 1-1. Câu lạc bộ đã trải qua thêm một thập kỷ bóng đá, vị trí của đội cao nhất là vị trí thứ tám và vị trí thấp nhất của đội bóng này là vị trí thứ 18.[4] Thành công của câu lạc bộ đến ở thập kỷ 1930, với chiến thắng đậm 10-2 trước đội Coventry City và họ giành chức vô địch giải hạng hai mùa bóng 1933-34 dưới sự dẫn dắt của Tom Parker[8] Với số cổ động viên tiếp tục tăng cao, và vì việc Liên đoàn bóng đá Anh lo ngại về sự độ an toàn của sân The Nest, câu lạc bộ xem xét việc cải tạo thêm đất và chỗ ngồi cho khán giả nhưng cuối cùng ban lãnh đạo đội bóng đã chuyển đến sân vận động Carrow Road. Trong trận đầu tiên của đội bóng mùa 1935-36 và cũng là trận đấu đầu tiên của Norwich City thi đấu tại Carrow Road, đội đã giành chiến thắng 4-3 trước West Ham United và thiết lập một kỷ lục mới của câu lạc bộ về số cổ động viên tham dự là 29.779. Điểm nhấn lớn nhất của câu lạc bộ là chuyến thăm của vua George VI đến sân Carrow Road vào ngày 29 tháng 10 năm 1938. Tuy nhiên câu lạc bộ đã bị xuống hạng vào cuối mùa 1938-39.[9] Câu lạc bộ đã phải đình chỉ hoạt động mùa giải sau như một kết quả của sự bùng nổ của Chiến tranh thế giới thứ hai và không tham dự cho đến khi mùa giải 1946-47 khởi tranh.[4] Câu lạc bộ đã tiếp tục tham dự và đứng ở vị trí thứ 21[10][11] Kết quả nghèo nàn khiến Norwich City phải tham gia cuộc bầu cử thêm giải hạng tư[12]. Câu lạc bộ đã sa thải huấn luyện viên Norman trong những năm 1950, và sau sự trở lại của huấn luyện viên Tom Parker, Norwich hoàn thành mùa bóng với vị trí cuối bảng của giải đấu bóng đá trong mùa giải 1956-1957.[13]

Mùa bóng 1958-59 chứng kiến Norwich lọt vào đến bán kết FA Cup. Họ đã đánh bại Tottenham Hotspur và Manchester United[12][14]. Mùa giải 1959-60, Norwich được thăng lên hạng nhì sau khi kết thúc ở vị trí thứ hai, và đứng sau Southampton. Mùa giải 1960-61, họ kết thúc mùa giải ở vị trí thứ tư.[12] Năm 1962, Ron Ashman dẫn dắt Norwich đến danh hiệu đầu tiên của họ kể từ năm 1933, đánh bại Rochdale 4-0 trong trận chung kết để giành chức vô địch League Cup[15].

Vị trí thứ sáu là vị trí cao nhất của họ tại giải hạng hai trong thập kỷ 1960, nhưng vào mùa giải 1971-72, dưới sự dẫn dắt của huấn luyện viên Ron Saunders, đội bóng đã chính thức được thăng hạng giải cao nhất của bóng đá Anh lần đầu tiên[16] Lần đầu tiên họ xuất hiện trên sân vận động Wembley là vào năm 1973 trong trận chung kết League Cup mùa bóng 1972-73, nhưng lại để thua 1-0 và bị mất danh hiệu vào tay Tottenham Hotspur.[17] Tuy nhiên họ đã bị xuống hạng hai vào mùa giải 1973-74 đã dẫn đến việc huấn luyện viên Saunders phải từ chức và bổ nhiệm John Bond làm huấn luyện viên mới[16]. Tuy nhiên mùa giải sau đó họ đã được thăng hạng trở lại giải hạng nhất mùa 1974-75, và lại trở lại sân Wembley khi vào đến chung kết League Cup, nhưng lại để thua 1-0 trước Aston Villa.[18] Bond từ chức trong mùa giải 1980-81 và câu lạc bộ bị xuống hạng vào cuối mùa, nhưng đã thăng hạng trở lại ở mùa giải tiếp đó sau khi kết thúc ở vị trí thứ ba.[19]

Mùa giải 1984-85 là mùa giải thành công nhưng không trọng vẹn cho câu lạc bộ, dưới dự dẫn dắt của Ken Brown, họ lọt vào chung kết của Cúp Liên đoàn bóng đá Anh tại sân vận động Wembley, sau khi đánh bại Ipswich Town trong trận bán kết. Trong trận chung kết, họ đánh bại Sunderland 1-0 để giành chức vô địch, nhưng trong giải hạng nhất thì cả Norwich và Sunderland đã bị xuống hạng hai của bóng đá Anh. Điều này làm cho Norwich trở thành câu lạc bộ đầu tiên giành một danh hiệu lớn và bị xuống hạng trong cùng một mùa giải cho đến khi Birmingham City cũng bị xuống hạng mặc dù mùa giải đó họ đã giành được League Cup 26 năm sau đó, năm 2013, Wigan Athletic tái diễn điều tương tự khi thắng Manchester City 1-0 trong trận chung kết FA Cup, nhưng chỉ về thứ 18 tại Giải Ngoại hạng.

Giấc mơ được dự cúp châu Âu đầu tiên của họ đã bị phá sản mặc dù họ đã được dự cúp châu Âu mùa giải đó sau lệnh cấm các câu lạc bộ Anh vì thảm họa Heysel.[20][21] Chức vô địch của câu lạc bộ mùa giải 1985-86 đã giúp Norwich được thăng hạng trở lại giải bóng đá hạng nhất.[22] Đây là bước khởi đầu của những gì còn lại trong năm 2012, với kỷ lục đối với câu lạc bộ chín mùa liên tiếp trong hạng giải cao nhất của bóng đá Anh.[23] Việc đứng ở vị trí cao trong các giải hạng nhất mùa 1986-87 và 1988-89 là được dự UEFA Cup, nhưng lệnh cấm các câu lạc bộ nước Anh tham dự giải châu Âu vẫn còn[21].Họ cũng đã giành chức vô địch FA Cup vào năm 1989 và một lần nữa vào năm 1992.[24][25]

Mùa giải 1992-93, mùa giải khai mạc Premier League, Norwich dẫn đầu hầu hết cả mùa giải,[21] nhưng sự sa sút trong những vòng đấu cuối cùng khiến Norwich tuột ngôi vô địch và kết thúc ở vị trí thứ ba sau nhà vô địch Manchester United và đội á quân Aston Villa.[26] Mùa giải sau đó là mùa giải đầu tiên họ dự cúp UEFA Cup, thua ở lượt trận thứ ba trước Inter Milan, nhưng đánh bại Bayern München. Chiến thắng 2-1, Norwich là đội bóng Anh duy nhất đánh bại Bayern München ngay trên sân vận động Olympic, và cho đến nay chỉ có thêm Chelsea và Arsenal là đội bóng Anh thứ 2 và 3 đánh bại Bayern ngay tại Đức.[21][27][28][29][30] Mike Walker từ chức huấn luyện viên trưởng câu lạc bộ trong tháng 1 năm 1994,[31] để đến Everton và đã được thay thế bằng cầu thủ đã từng thi đấu cho đội bóng trước đây 36 năm, John Deehan và đã giúp câu lạc bộ ở đứng ở vị trí thứ 12 trong mùa giải 1993-94 tại Premier League.[32] Mùa sau, câu lạc bộ thi đấu không tốt và bị xuống hạng nhất[33].Một thời gian ngắn trước khi xuống hạng, Deehan từ chức và trợ lý của ông, Gary Megson đã huấn luyện đội bóng cho đến khi mùa giải kết thúc.[34] Martin O'Neill đã được bổ nhiệm làm huấn luyện viên trưởng của Norwich trong mùa hè 1995.[35] Ông chỉ kéo dài công việc được sáu tháng trước khi từ chức sau một cuộc tranh chấp với chủ tịch Robert Chase tiền để tăng cường đội hình.[36] Ngay sau đó, Chase đã từ chức sau khi cuộc biểu tình của hội cổ động viên của câu lạc bộ, người phàn nàn rằng ông tiếp tục bán những cầu thủ tốt nhất của câu lạc bộ và là để đổ lỗi cho sự xuống hạng của họ[37] Thay thế chức chủ tịch câu lạc bộ của Chase là Geoffrey Watling[38].

Dẫn chương trình đầu bếp Anh Delia Smith và chồng Michael Wynn-Jones đưa hơn phần lớn các cổ phiếu vào Norwich City từ Watling trong năm 1996[38] và Mike Walker đã được tái bổ nhiệm làm huấn luyện viên của câu lạc bộ[39]. Ông đã không thể lặp lại thành công đạt được trong nhiệm kỳ đầu tiên của mình và đã bị sa thải hai mùa giải sau đó, và mùa giải ấy Norwich giữa bảng xếp hạng trong giải hạng nhất[40].Nigel Worthington đã được bổ nhiệm làm huấn luyện viên của câu lạc bộ trong tháng 12 năm 2000, sau hai mùa giải không mấy thành công cho câu lạc bộ dưới thời Bruce Rioch và sau đó là Bryan Hamilton. Ông đã được các trợ lý huấn luyện dưới thời Hamilton, người đã từ chức với các câu lạc bộ vì chỉ đứng ở vị trí thứ 20 trong giải hạng nhất và có nguy cơ của việc phải xuống hạng nhì của bóng đá Anh lần đầu tiên kể từ những năm 1960[41]. Worthington đã giúp Norwich City trụ hạng thành công và mùa giải sau đó, đã đưa Norwich đến trận một chung kết tại sân vận động Millennium, và trận đó Norwich bị thua trước Birmingham City trên chấm phạt đền[42].

Mùa bóng 2003-04 cho thấy sự trở lại của Norwich, họ đã giành chức vô địch giải hạng nhất, hơn đội nhì bảng West Bromwich Albion 8 điểm và trở lại giải đấu cao nhất nước Anh sau mười năm vắng bóng.[43] Phần lớn mùa giải 2004-05, họ phải đấu tranh để giành suất trụ hạng, mặc dù đã đánh bại Manchester United 2-0 và Newcastle United 2-1 ở các vòng đấu áp chót,[44] tuy nhiên thất bại ở vòng đấu cuối cùng trước đội bóng cạnh tranh trực tiếp Fulham với tỷ số đậm 6-0 đã tiễn Norwich về lại với giải hạng nhất.[45] Một mùa giải sau đó họ thi đấu tại giải hạng nhất, kết thúc mùa giải ở một vị trí ngoài top 3. Kết quả hồi đầu mùa giải 2006-07 đã đi ngược lại theo chiều hướng của câu lạc bộ, và sau trận thua 4-1 trước đối thủ Burnley ngày 1 tháng 10 năm 2006, huấn luyện viên Nigel Worthington đã bị sa thải.[46] Ngày 16 tháng 10 năm 2006, Norwich đã tổ chức một cuộc họp báo tiết lộ rằng cựu cầu thủ của câu lạc bộ Peter Grant đã rời West Ham United để trở thành huấn luyện viên mới của câu lạc bộ[47], và trong tháng 2 năm 2007, Grant thay thế trợ lý Doug Livermore bằng trợ lý người Scot, Jim Duffy[48]. Ông đã giúp Norwich trụ hạng mùa giải đó. Đầu mùa giải 2007-08, Norwich đã có một khởi đầu tồi tệ. Sau thất bại 1-0 trước Queens Park Rangers, Peter Grant đã rời câu lạc bộ bởi thỏa thuận giữa hai bên vào ngày 9 tháng 10 năm 2007[49] Vào ngày 30 tháng 10 năm 2007, Norwich bổ nhiệm cựu cầu thủ của Newcastle United, Glenn Roeder làm huấn luyện viên trưởng của câu lạc bộ.[50] Roeder được đưa về với mục đích là để giúp cho Norwich trụ hạng ở lại giải hạng nhất, và ông đã giúp Norwich trụ hạng thành công với chiến thắng 3-0 trước Queens Park Rangers, trận áp chót của mùa giải.

Đầu giờ chiều ngày 14 tháng 1 năm 2009, Norwich thông báo là đã chính thức sa thải huấn luyện viên Roeder chỉ sau sáu mươi trận cầm quân và thắng 20 trận, chỉ bằng 1/3.[51] Một tuần sau, Bryan Gunn đã được bổ nhiệm làm huấn luyện viên trưởng tạm quyền cho đến khi kết thúc mùa giải[52]nhưng ông không thể ngăn cản câu lạc bộ bị xuống hạng vào ngày 3 tháng 5 năm 2009, sau khi thất bại 4-2 trước đội bóng đã xuống hạng, Charlton Athletic.[53]. Sau khi xuống hạng nhì, trận đấu đầu tiên trong mùa giải của họ kết thúc, với một cú sốc thất bại đậm 1-7 trước đối thủ vùng đông Anglian, Colchester United. Đây là thất bại nặng nhất trong lịch sử câu lạc bộ kể từ năm 1946. Hai người hâm mộ của Norwich đã vào sân xem và khi thấy đội nhà bị dẫn trước 4-0 chỉ sau có 22 phút, họ bất mãn đã xé vé xem trận đấu[54] và vì vậy, sáu ngày sau, Gunn đã bị ban lãnh đạo câu lạc bộ sa thải.[55]

Ngày 18 tháng 8 năm 2009, ban lãnh đạo Norwich City đã chính thức bổ nhiệm Paul Lambert làm huấn luyện viên mới cho câu lạc bộ, để lại chỗ trống của mình tại Colchester, và ông đã giúp Norwich thăng hạng nhất Anh vào cuối mùa giải[56][57]. Mùa giải tiếp theo, chứng kiến Norwich thăng hạng Premier League, đứng thứ hai trên bảng xếp hạng chỉ sau QPR và trở thành đội bóng tiếp theo được thăng hạng hai lên ngoại hạng chỉ sau có hai mùa giải, sau Manchester City vào năm 2000.[58] Mùa giải trở lại Premier League của Norwich City đã kết thúc thành công, khi họ đứng ở vị trí thứ 12. Sau đó, huấn luyện viên Paul Lambert đã chuyển đến Aston Villa, được thay thế bằng Chris Hughton. Mùa giải 2012-13 bắt đầu không mấy suôn sẻ với Norwich, khi họ bất ngờ phải nhận thất bại bẽ bàng 5-0 trớc Fulham ngay ở vòng đấu đầu tiên. Tuy nhiên các chiến thắng 1-0 trước Arsenal và Manchester United đã giúp Norwich trở lại phong độ. Trận thua 1-0 trước Luton Town đã khiến Norwich trở thành đội bóng Anh đầu tiên bị loại khỏi FA Cup bằng một đội bóng không ở hạng thi đấu nào sau 24 năm.[59] Giai đoạn lượt về của mùa giải, Norwich hầu như toàn hòa và thua, chỉ có hai chiến thắng tính đến trước vòng áp chót, nhưng chiến thắng 4-0 ở vòng áp chót trước West Bromwich Albion đã giúp Norwich trụ lại một mùa bóng nữa tại giải Ngoại hạng Anh, và chiến thắng 3-2 ở vòng đấu cuối cùng trước Manchester City giúp Norwich kết thúc mùa bóng 2012-13 ở vị trí thứ 11. Mùa giải 2013-14, Norwich thi đấu không tốt. Họ bị xuống hạng khi chỉ xếp thứ 18 chung cuộc. Sau một mùa giải thi đấu ở Giải Hạng nhất, Norwich đã giành quyền trở lại Giải Ngoại Hạng sau khi đánh bại Middlesbrough tại trận play-off quyết định.[60] Tuy nhiên, mùa bóng sau đó họ lại xuống chơi ở giải hạng nhất khi xếp thứ 19 chung cuộc.[61]

Norwich đã có ba mùa liên tiếp chơi ở giải hạng nhất, ở mùa 2016-17 họ kết thúc ở vị trí thứ 8, trước đó vào ngày 10 tháng 3 họ đã sa thải Alex Neil.[62] Ngày 25 tháng 5 năm 2017, Norwich bổ nhiệm huấn luyện viên người Đức Daniel Farke - huấn luyện viên ngoại đầu tiên trong lịch sử câu lạc bộ.[63] Mùa 2017-18 đội bóng kết thúc ở vị trí thứ 14; sang mùa 2018-19 mặc dù khởi đầu chậm chạp nhưng Norwich sau đó đã thi đấu xuất sắc, ngày 27 tháng 4 năm 2019 sau chiến thắng 2-1 trước Aston Villa họ chính thức giành vé quay trở lại ngoại hạng Anh; chiến thắng 2-1 trước Blackburn giúp Norwich vô địch giải hạng Nhất.[64]